Thành phố có lịch sử hơn 2000 năm. Dấu vết của nền văn hóa tiền Chavin có thể được nhìn thấy xung quanh các địa điểm khảo cổ như Cumbe Mayo và Kuntur Wasi. Trong thời gian giữa năm 1463 và 1471, Tupac Inca chinh phục khu vực và nhập Cajamarca vào Tawantinsuyu, hoặc Đế chế Inca, mà lúc đó vẫn đang được cai trị bởi cha của Tupac là Pachacuti.Vị trí của Cajamarca trong lịch sử nổi bật bởi các sự kiện năm 1532. Atahualpa đã đánh bại anh trai mình là Huáscar trong một cuộc chiến giành ngôi vua Inca ở Quito. Trên đường đi của mình đến Cusco để xưng đế cùng với quân đội của ông gồm 80.000 binh sĩ, ông dừng lại tại Cajamarca. Francisco Pizarro và 168 binh lính của ông đã gặp Atahualpa ở đây sau đi nhiều tuần từ Piura. Pizarro đến gặp mặt thủ lĩnh Inca, với một đoàn tùy tùng 168 người, yêu cầu phía Inca phải cải sang đạo Kitô. Atahualpa cầm quyển Kinh thánh và ném xuống sàn nhà, cùng với yêu sách của Tây Ban Nha như một lời thách đấu, thông qua một số người phiên dịch, Atahualpa khẳng định rằng ông không muốn hiểu những gì trong cuốn sách kia. Quân Tây Ban Nha đã tấn công đoàn tùy tùng của thủ lĩnh Inca và bắt sống Atahualpa.